雷峰网
08-19 07:02
NPU不够，诚恒微为什么还给端侧AI芯片加了GPGPU？
📌 一句话：端侧AI场景复杂多变，NPU专用性强但灵活性不足，诚恒微用NPU+GPGPU异构方案实现"鱼和熊掌兼得"。
💡 3个要点
NPU有硬伤：专用神经网络处理器能效高，但只擅长特定算子，新模型一出就可能"认不出"
GPGPU来补位：通用GPU编程灵活，能处理NPU覆盖不到的算子和突发新模型，避免芯片快速淘汰
异构成趋势：未来端侧AI负载多元化，单一NPU已无法通吃，组合拳才是正解
📖 背景
端侧AI芯片通常主打NPU提升能效比，但AI模型迭代快、应用场景碎片化，NPU的"专用性"反而成了瓶颈。
💭 点评
这步棋走得聪明。与其赌押哪个算子会被行业通用，不如把灵活性和专用性都攥在手里。GPGPU功耗高？不重要，能在需要时顶上去就行。端侧AI的竞争，本质上是"谁能活得更久"的比拼，多一个能力就少一分被淘汰的风险。
📡 来源：雷峰网
📖 原文链接
点击阅读原文 →